درسنامه آموزشی پودمان 4 هوش مصنوعی کلاس دهم هنرستان

آیا تا به حال اندیشیده‌اید

• اگر یک ربات یا نرم‌افزار هوشمند دربارۀ آینده شما تصمیم بگیرد، دوست دارید مطمئن باشید عادلانه تصمیم می‌گیرد یا برایتان مهم نیست؟
• چه اتفاقی می‌افتد اگر یک هوش مصنوعی به‌دلیل سوگیری (مثلاً تشخیص اشتباه جنسیت یا قومیت افراد) تصمیم ناعادلانه بگیرد؟
• اگر کسی با کمک هوش مصنوعی بتواند صدای شما را تقلید کند و به‌جای شما صحبت کند، چه مشکلاتی ممکن است برای شما پیش بیاید؟
• کسانی که هوش مصنوعی را طراحی می‌کنند، آیا برای شما مهم است که به اخلاق و امنیت توجه کنند؟ چرا؟

در پایان از هنرجو انتظار می‌رود

• اهمیت اخلاق در هوش مصنوعی را توضیح دهد و بداند چرا رعایت اصول اخلاقی در طراحی و استفاده از فناوری ضروری است.
• بتواند نمونه‌هایی از خطرات نقض حریم خصوصی (مثل انتشار اطلاعات شخصی یا سوگیری هوش مصنوعی) را بیان کند.
• نقش امنیت اطلاعات و داده‌ها را در دنیای هوش مصنوعی درک کرده و مثال‌هایی از تهدیدها و پیامدهای آن ارائه دهد.
• در مورد مسئولیت‌پذیری انسان‌ها در استفاده از هوش مصنوعی نظر بدهد و راهکارهای درست را پیشنهاد کند.
• نگرشی مثبت نسبت به استفاده درست، امن و اخلاقی از فناوری داشته باشد و آن را در زندگی روزمره به‌کار ببرد.

استاندارد عملکرد

هنرجو بتواند اصول اخلاقی و الزامات امنیتی در هوش مصنوعی را شناسایی کرده و در موقعیت‌های آموزشی و روزمره برای حفاظت از داده‌ها و استفاده مسئولانه از فناوری به‌کار گیرد.

مقدمه

هوش مصنوعی به‌دلیل ویژگی‌های بزرگی که دارد به یکی از جنبه‌های اصلی جهان مدرن تبدیل شده است به صورتی‌که در بسیاری از صنایع و حتی جنبه‌های گوناگون زندگی، انقلاب به پا کرده و در واقع سبب توسعه سامانه‌های رایانه‌ای شده است، تا این سامانه‌ها بتوانند کارهایی را انجام دهند که انسان‌ها باید روی آن نظارت و کنترل داشته باشند.

پیشرفت سریع هوش مصنوعی و نبود فرهنگ از پیش تعریف شده برای استفاده از آن، به‌طور طبیعی نگرانی‌هایی را به‌وجود می‌آورد. ترس از موقعیت‌هایی که این فناوری در حال به‌وجود آوردن آن است و امکان دارد استفاده نادرست از آن عواقب منفی و پیامدهای اخلاقی درپی داشته باشد، که قطعاً جبران‌ناپذیر خواهد بود.

این پودمان خطراتی را که در نتیجه استفاده نادرست از انواع مختلف رویکردهای هوش مصنوعی، ممکن است به‌وجود آید، مطرح می‌کند.

مهندسی اجتماعی

قرار است فردی با یک سامانه مجهز به هوش مصنوعی دست به بازی رقابتی دوز بزند. سامانه قبل از هر چیز رفتارهای او را به‌صورت یک نمودار درختی مشابه شکل زیر پیش‌بینی خواهد کرد و سپس با اطلاعاتی که از درک بصری به‌دست می‌آورد، عملکرد او را در آینده پیش‌بینی می‌کند و در شاخه فوقانی نمودار درختی فوق به سمت پایین پیش می‌رود.

بدین ترتیب با پیش‌بینی صورت گرفته عملکردی را انجام خواهد داد که او را به سمتی که تصمیم دارد سوق دهد، تا به هدف موردنظر یعنی برنده شدن برسد. به این عمل در اصطلاح «مهندسی اجتماعی» گویند و در جنگ نرم مورد استفاده قرار می‌گیرد.

خلاقیت‌های فرد سبب می‌شود که روند اجرای کار توسط سامانه مجهز به هوش مصنوعی با اختلال مواجه شود و او را به برد نزدیک کند. چرا که پیش‌بینی برای آن وجود ندارد و تصمیم‌گیری را برای او مشکل می‌کند. هر چند در چنین جنبه‌هایی، سامانه دست به یادگیری و خود اصلاحی درخت تصمیم می‌زند. تا در روند اجرای عملیات‌های بعدی از آنچه یاد گرفته است به بهترین نحو استفاده کند.

به‌عبارت دیگر، کارکرد مداوم سامانه‌های مجهز به هوش مصنوعی، علاوه‌بر آنکه فعالیت‌های قبلی را مستهلک نمی‌کنند بلکه بر قدرت تفکر خود می‌افزایند و خطاهای خود را مدیریت می‌کنند تا مانند انسان خطا نکنند. شاید برای فرد این سؤال پیش بیاید که این همه ویژگی چه خطراتی را می‌تواند برای ما ایجاد کند؟ برای درک بهتر موضوع، به مطالب آورده شده بیشتر دقت کنید.

خطرات ناشی از وجود و استفاده از هوش مصنوعی

اولین خطر و شاید تنها خطری که در ذهن افراد نقش می‌بندد، خطر بیکاری انسان‌ها و جایگزین شدن سامانه‌های مجهز به هوش مصنوعی به‌جای افراد است. عموماً در بسیاری از مقالات این صحبت به میان می‌آید که با ظهور و فراگیر شدن هوش مصنوعی، بسیاری از افراد شغل خود را از دست داده و بیکار خواهند شد. مثلاً زمانی که هر فرد عادی با چند کلیک می‌تواند طرحی را که یک گرافیست ساعت‌ها بر روی آن وقت می‌گذارد تا پدید آورد، را به‌وجود آورد چه نیاز به استفاده از تجربه یک گرافیست است؟!

چنین استدلالی اصلاً درست نیست چون تکنیک گفته شده قرار است در کنار فردی که یک گرافیست متبحر است قرار گیرد تا او به‌جای وقت گذاشتن برای انجام کارهای پیش پا افتاده، به مسائل اصلی‌تر تمرکز کند. در واقع طولانی شدن زمان انجام کارهای عادی سبب می‌شود از موضوعات اصلی دور بماند.

اما می‌توان هوش مصنوعی را به‌عنوان یک دستیار در کنار خود به‌کار گرفت و زمان مدنظر را صرف ایده‌پردازی کرد. به بیان دیگر فرد، ذهن خلاق خود را بارور کند و خلاقیت‌های خود را در موضوع مدنظر، به عرصۀ حضور درآورد و خروجی خارق‌العاده‌ای در زمان بسیار کمتر ارائه دهد.

هر چند جملۀ «ظهور و فراگیر شدن هوش مصنوعی، بسیاری از افراد را بیکار خواهد کرد» صد درصد هم نادرست نیست.

بسیاری از اعمال تکراری که توسط گروهی از انسان‌ها انجام می‌گیرد از این پس توسط سامانه‌های مجهز به هوش مصنوعی، با دقت و سرعت بالاتر و حتی بدون خطا صورت خواهد پذیرفت و به‌دلیل مزیت‌های فوق که به آن می‌توان کم شدن هزینه برای کارفرمایان را هم افزود، هوش مصنوعی پتانسیل جایگزینی برای خیلی از مشاغل را فراهم خواهد کرد.

به‌عنوان مثال، یک سری از کارهای تکراری در اداره‌های دولتی تحت عنوان خدمت‌رسانی به مشتریان توسط افرادی صورت می‌پذیرفت. که با ظهور سامانه‌های رایانه‌ای به‌صورت اتوماسیون انجام می‌شود و هم اکنون نیز اضافه شدن هوش مصنوعی به چنین سامانه‌های، عملکرد فوق را با قابلیت‌های بسیار فراتر، انجام‌پذیر کرده است. اما در مقابل حذف چنین مشاغلی که در حال رخ دادن است، ظهور دانش و فن هوش مصنوعی فرصت‌های شغلی جدید را هم ایجاد خواهد کرد. ولی در کل سرعت ایجاد چنین فرصت‌های شغلی با نرخ از دست دادن شغل‌های قبلی برابری ندارد و این موضوع منجر به بیکاری یا ایجاد اختلال کاری برای عده‌ای خواهد شد.

طبق برآوردهای انجام گرفته هوش مصنوعی بین سال‌های 2025 تا 2030 میلادی، حدود هشتاد و پنج میلیون شغل را در اختیار می‌گیرد و از سوی دیگر حدود 97 میلیون شغل جدید ایجاد خواهد کرد. با این تفاوت که بسیاری از کارمندان مهارت‌های موردنیاز برای انجام این نقش‌های جدید را به‌دلیل فنی بودن آن‌ها نخواهند داشت. حتی افرادی که به مدارج بالای مدارک علمی در تحصیلات تکمیلی رسیده‌اند، به‌دلیل نداشتن معلومات کافی از قدرت هوش مصنوعی، مصون نخواهند ماند و در صورتی‌که با آموزش‌های جدید پس از دانشگاه، علم و تخصص خود را ارتقاء نداده و به روز نکرده باشند از نظر شغلی و تخصص بلعیده خواهند شد.

به صورتی‌که با افراد بدون دانش علمی تفاوتی نخواهند داشت. (شکل زیر) کاهش ارزش سهام شرکت بزرگ آمریکایی Chegg را نشان می‌دهد که با ظهور Chat GPT متحمل خسارت فراوان شد.

یکی دیگر از این آسیب‌ها که به ذهن بسیاری از افراد جامعه خطور نمی‌کند، بحث تبعیض در پردازش اطلاعات توسط هوش مصنوعی و خروجی‌های متفاوتی است که از این سامانه‌ها در مناطق مختلف جهان به کاربران ارائه می‌شود. این تبعیض نه فقط به‌دلیل تبعیض طراحان الگوریتم این‌گونه سامانه‌ها، بلکه به‌دلیل آموزش‌های گوناگونی است که هوش مصنوعی در مناطق مختلف از بازخوردهای اعمال انجام گرفته، به‌دست می‌آورد و تحت این آموزش‌ها دست به خود اصلاحی الگوریتم‌های اصلی خود می‌زند. این تبعیض در طولانی مدت سبب بُروز نابرابری‌های اجتماعی می‌شود، که جبران‌ناپذیر است.

خارج از آنچه در طول زمان استفاده بر سر این سامانه‌ها می‌آید، این سامانه‌ها حداقل باید به‌گونه‌ای طراحی شوند که عادلانه و بدون تبعیض علیه افراد یا گروه‌های انسانی خاص عمل کنند. برای این منظور الگوریتم‌های سامانه‌های مجهز به هوش مصنوعی، به قصد بهبود مداوم عملکرد، باید به‌صورت مداوم مورد ارزیابی قرار گیرند تا سامانه‌های فوق پس از یادگیری‌هایی که انجام می‌دهند به قهقرا نروند.

به بیانی دیگر باید در دوره‌های مشخص، الگوریتم‌های مربوط به هوش مصنوعی مورد نظارت و ارزیابی قرار گیرند و ملاحظات اخلاقی در طول عمرشان، از توسعه تا اجرا، به‌صورت یکپارچه اعمال گردد. بدین‌ترتیب می‌توان چالش‌های غیراخلاقی در حال ظهور را مدیریت کرد. آسیب دیگری که می‌تواند نتایج خطرناکی را به بار آورد، نقض حریم خصوصی است. این سامانه‌ها از حجم بالایی از اطلاعات که به طرق مختلف جمع‌آوری می‌کنند استفاده می‌نمایند، تا بتوانند نتایج دقیق و قابل استدلالی را ارائه دهند. که در میان این اطلاعات، اطلاعات شخصی افراد نیز وجود دارد، در صورت هک‌شدن چنین سامانه‌هایی، حریم خصوصی افراد به‌طور کامل نقض شده و آسیب‌های غیرقابل جبرانی را ایجاد خواهد کرد.

به‌عنوان مثال این سامانه‌ها در زمان استفاده، از کلیه داده‌های قابل دسترس برای راهنمایی دقیق‌تر آن‌ها استفاده می‌کنند، این داده‌ها می‌توانند در این دسته‌ها باشند:

• داده‌های موجود در سامانه‌هایی که با آن‌ها در ارتباط هستید و یا از آن‌ها به‌صورت شخصی استفاده می‌کنید (سامانه رایانه، سامانه‌های اینترنت اشیا (IOT) و دستگاه‌های pos و گوشی موبایل و...)
• محل جغرافیایی (این مورد را به‌راحتی می‌توانید در پائین صفحه جستجوی مرورگر Google مشاهده کنید).
• وضعیت روحی آن‌ها، زمان خواب و بیداری و شرایط زندگی
• تصاویر ارسالی از آن‌ها (جزئیات این تصاویر به‌طور دقیق و کامل بررسی شده، حتی زمان گرفتن تصویر، محل گرفتن تصویر را تشخیص داده، سالم بودن یا رتوش شدن تصویر، اجزا تقلبی یا غیر اصلی موجود در تصویر به‌دست می‌آید و مورد پردازش قرار می‌گیرد).
• تاریخچه جستجوهایی که از طرف افراد جامعه در زمان‌های مختلف انجام شده است.
• نامه‌های الکترونیکی (Email)های ارسالی و دریافت شده توسط افراد؛
• حتی مصادیق تشویق‌ها و تأئیداتی که انجام داده‌اید و توضیحاتی که گذاشته شده است.
• عقاید و نظرات دوستانی که با افراد در ارتباط هستند.
• رمزهای مورد استفاده توسط ایشان و حتی چگونگی الگوی تغییر رمزهای جدید که همۀ قبلی به رمزهای این موارد در زمان ارتباط با ایشان (اتصال به اینترنت یا هرگونه ارتباط شبکه‌ای) جمع‌آوری می‌گردد، تا در زمان ارائه پردازش، بتواند نتایج دقیق‌تری به آن‌ها ارائه کند. این بانک اطلاعاتی کامل در صورتی‌که مورد سوءاستفاده قرار گیرد، جبران‌ناپذیر است.

بعضی از شبکه‌های اجتماعی پرمخاطب از یک هوش مصنوعی ساده استفاده می‌کنند. این برنامه‌های کاربردی براساس تعداد جست‌وجو؛ پذیرفته شدن و نظرات ارائه شده کاربران تلاش می‌کند به سلیقه افراد پی ببرد و در زمان کوتاهی با بررسی پیام‌ها و حتی ایموجی‌ها در موتور جست‌وجو خود، پیام‌ها و پست‌های مشابه که افراد علاقه دارند را پیشنهاد می‌دهد.

دقت کنید این سامانه‌ها سعی ندارند عقیدۀ افراد را تغییر دهند و راه جدیدی به آن‌ها نشان دهند، بلکه قرار است بنابر سلیقۀ آن‌ها عمل کنند. هر چند عده‌ای سعی می‌کنند با استفاده از این ویژگی‌ها و به کمک مهندسی اجتماعی، دست به تغییر ناخودآگاه عقاید و هدف‌های آن‌ها هم بزنند.

برای جلوگیری از آسیب بیان شده طراحان الگوریتم سامانه‌های فوق باید به‌گونه‌ای عمل کنند که بتوان به کاربر این اطمینان را داد که بانک اطلاعاتی جمع‌آوری شده به‌طور مسئولانه مورد استفاده قرار می‌گیرد و امنیت آن به کمک جدیدترین روش‌های امنیتی مثل رمزگذاری و نامشخص کردن داده، در بالاترین سطح حفاظتی قرار خواهد داشت.

یکی دیگر از آسیب‌هایی که این فناوری می‌تواند برای استفاده کنندگانش ایجاد کند، اطمینان کامل به هوش مصنوعی و استفاده از آن در خودکارسازی سلاح‌ها، اتومبیل‌ها و دستگاه‌های صنعتی است که این موضوع علاوه‌بر همۀ مزایایی که دارد و از آن جمله می‌توان به رفع بی‌دقتی و خطای انسانی در زمانی که انسان به عنوان کنترل کننده دستگاه در نظر گرفته می‌شود، نام برد، سوء استفاده‌هایی است که در صورت فراگیر شدن دستگاه‌های خودکار مبتنی بر هوش مصنوعی، می‌توان از آن یاد کرد.

این فناوری خود مشکل‌زا نیست ولی افرادی هستند که با نقض قوانین بین‌الملل می‌توانند به آن وسائل نفوذ کنند و سوءاستفاده مدنظر خود را داشته باشند، که جبران‌ناپذیر است. این سامانه چون بدون دخالت انسانی قرار است عمل کند، در صورت سوءاستفاده احتمالی، پیامدهای غیرقایل پیش‌بینی در پی دارد. چیزی که در بیشتر فیلم‌های هالیوودی که در این مورد ساخته شده است، با اغراق به نمایش درآمده است.

از سویی دیگر هوش مصنوعی به‌دلیل داشتن ساختار یادگیری و ترمیم و تصحیح الگوریتم اولیه‌اش، این پتانسیل را دارد که از کنترل خارج شود و به سطحی ارتقاء یابد که اراده خود را توسعه دهد و اقداماتی را انجام دهد که با منافع انسان در تضاد باشد و حتی موجودیت انسان را تهدید کند. جفری هنیتون یکی از دانشمندان ارشد هوش مصنوعی گوگل، که پدرخوانده هوش مصنوعی لقب گرفته، در یکی از سخنرانی‌های خود بیان کرد.

این ایده که هوش مصنوعی زمانی بتواند واقعاً از انسان باهوش‌تر گردد برای من موردی دور از ذهن بود، اما هم اکنون برایم بدیهی است که این واقعیتی است که به‌زودی تحقق خواهد یافت. پیشرفت‌های هوش مصنوعی خود می‌تواند آسیبی باشد که در آینده بشریت را خارج از هرگونه سوءاستفاده انسانی تهدید کند.

قدرت یادگیری سرورهای هوش مصنوعی به اندازه‌ای سریع است که به‌عنوان مثال هوش مصنوعی آلفازیر و گوگل تنها در عرض 9 ساعت از زمان آغاز به‌کار یاد گرفت که چگونه شطرنج را حتی بهتر از بهترین شطرنج‌باز، بازی کند، در واقع در این 9 ساعت پس از یادگیری اصول اولیه، هوش مصنوعی با میلیون‌ها بار بازی کردن با خودش یادگیری‌هایی را انجام داد که توانست بهترین بازیکن شطرنج دنیا را شکست دهد.

همچنین سامانه GPT4 با شرکت در آزمون Uniform Bar Exam که یک آزمون استاندارد برای تأیید صلاحیت وکلا در ایالات متحده است، شرکت کرد و عملکرد بهتری نسبت به 90 درصد از شرکت‌کنندگان انسانی داشت، چنین پیشرفتی در قدرت یادگیری و پردازش در ده‌ها آزمون استاندارد دیگر نیز مشاهده شده است.

بدین‌دلیل است که سم آلتمن رئیس شرکت Open AI در مورد هوش مصنوعی بیان کرد، «هوش مصنوعی خود را بهبود بخشیده است باید مطلع باشید که در طیف وسیعی از فعالیت‌ها از انسان پیشی گرفته است و این چیزی است که نگران‌ کننده خواهد بود. چون می‌دانم زمانی فرا خواهد رسید که او قادر خواهد بود از طریق اتصالات الکترونیکی خود در دنیای مجازی، کارهایی را انجام دهد و از طریق بدن ربات‌ها در دنیای فیزیکی عمل نماید.»

در این مورد فیلسوف بزرگ نیک بوستروم در کتاب ابرهوش خود به نظرات بوستروم ست‌بادم و الیزیود کوفسکی اشاره می‌کند و بیان می‌دارد: «زمانی فرا خواهد رسید که ما دیگر قادر نخواهیم بود به‌سادگی دکمه خاموش را فعال کنیم زیرا هوش مصنوعی فوق هوشمند به هر راه ممکنی که ما بتوانیم این کار را انجام دهیم، قبلاً فکر کرده و اقداماتی را برای جلوگیری از خاموش شدن انجام داده است، به بیان‌دیگر زمانی فرا خواهد رسید که هرگونه دفاع یا حفاظتی که ما در مقابله با این هوش مصنوعی فوق هوشمند سعی در انجام داریم، توسط هوش مصنوعی یک میلیون بار سریع‌تر از ما به‌راحتی پیش‌بینی و خنثی خواهد شد و دیگر قادر به کنترل آن نخواهیم بود.»

برای جلوگیری از آسیب فوق می‌توان از وجود متمرکز کنترل انسانی در بالاترین سطح هرم کنترل استفاده کرد تا در شرایط حساس و در صورت وجود تداخل، بتوانند دست به لغو دستورات خودکار بزنند.

یکی دیگر از خطرات استفاده از هوش مصنوعی، ساخت محتوای جعلی مثل مقالات، گزارش‌ها، حتی ویدئوهایی با قابلیت پذیرش بالاست، این مقالات با چنان ظرافتی توسط هوش مصنوعی ساخته می‌شود که می‌تواند باعث گمراهی افراد، افزایش اختلافات اجتماعی، تضعیف اعتماد درصد بالایی از عموم مردم شود و حتی فرایندهای تصمیم‌گیری را برای اقشار مردم که این مستندات را مشاهده کرده‌اند، با توجه به سوگیری‌های سیاسی که کاربر مدنظر داشته، به خطر اندازد.

با درنظر گرفتن قابلیت‌های هوش مصنوعی، تشخیص خبرهای جعلی از واقعی، به‌خصوص توسط افراد عادی بسیار مشکل خواهد بود، به بیان دیگر اطلاعات جعلی و نادرست مشکل جدیدی نیست اما هوش مصنوعی با چنان ظرافتی آن را تولید می‌کند که تشخیص آن از داده‌های واقعی، می‌توان گفت غیرممکن است.

عدم فرهنگ استفاده از فن فوق هوش مصنوعی خود آسیب دیگری برای افراد در جامعه است. خروجی‌های بی‌عیبی که هر فرد بدون دانش علمی می‌تواند با زدن چند کلیک به‌وجود آورد، قادر خواهد بود ارتباطات خانوادگی و رفتارهای اجتماعی را بر هم بریزد. هر چند این خروجی‌ها توسط خود همین فن، قابل ارزیابی بوده و میزان و درصد نادرست بودن آن قابل شناسایی است. ولی به‌دلیل ناآشنا بودن بسیاری ازافراد موجود در اجتماع از موارد بیان شده، آسیب‌های اجتماعی ناگواری را به‌وجود می‌آورد. این آسیب در ابتدای به‌وجود آمدن نرم‌افزار فتوشاپ (photoshop) نیز وجود داشت.

ولی در آن زمان تنها، افرادی می‌توانستند از نرم افزار فوق خروجی بگیرند، که دارای دانش علمی استفاده از نرم‌افزار بودند و از طرفی نادرست (Fake) بودن خروجی در صورت متبحر نبودن طراح، بسیار نمایان بود.

ولی در خروجی‌های حاصل از فن فوق، به‌دلیل بی‌عیبی و نبود فرهنگ شناسایی و ارزیابی خروجی برای همگان؛ آسیب‌های جبران‌ناپذیر، انحرافات رفتاری و عقیده‌ای و حتی بازخوردهای نادرستی را در پی‌خواهد داشت.

گری مارکوس در کتاب خود بیان کرده: «که در بررسی‌های انجام شده متوجه شدیم که از هوش مصنوعی برای کلاهبرداری‌های جعل‌ هویت و فیشینگ هدفمند استفاده‌های بسیار شده است».

به‌نظر می‌رسد بزرگ‌ترین کلاهبرداری جعل هویت تاکنون حول محور شبیه‌سازی صدا می‌چرخد. کلاهبردار صدای فرد موردنظر را شبیه‌سازی می‌کند و با خانواده وی تماس گرفته و ادعا کرده که نیاز فوری به پول دارد و می‌خواهد که مبلغی به آن حساب موردنظر واریز شود.

طبق گزارش روزنامۀ واشنگتن پست، یک نفر برای دسترسی به اطلاعات و اختلال در کار مقامات ارشد دولتی آمریکا با استفاده از هوش مصنوعی خود را «مارکو روبیو» جا زد و با وزیر خارجه 3 کشور و برخی مقامات آمریکایی تماس گرفت. این تلاش جعل هویت آن‌قدر واقع‌گرایانه بود که در آن زمان کسی به فرد مذکور مشکوک نشد و هم‌اکنون نیز با بررسی‌های انجام گردیده در مستندات ارائه شده، قادر به شناسایی و تشخیص فرد جعل‌کننده نمی‌باشند.

برای این منظور قبل از هر چیز باید فرهنگ استفاده، روش عملکرد و توانایی‌های بالقوه‌ای که این فناوری می‌تواند در اختیار کاربران قرار دهد، شناسایی شود و حتی تأثیراتی که کاربران مختلف می‌توانند با خروجی حاصل از این سامانه‌ها بر افراد مختلف اجتماع بگذارند، روش‌های شناسایی و چگونگی ارزیابی درست و غلط بودن خروجی‌هایی که در اختیار افراد قرار می‌گیرد، مطالعه شود و تلاش برای اعتماد نکردن به هر آنچه مشاهده می‌شود قبل از ارزیابی کامل آن، برای افراد اجتماع بیان گردد.

شفافیتی که بعد از این کار برای افراد مختلف حاصل می‌شود می‌تواند آن‌ها را از آسیب فوق دور کرده یا درصد آسیب را برای آن‌ها کم کند.

گری مارکوس متخصص هوش مصنوعی در کتاب جدید خود با عنوان «رام کردن سیلیکون ولی» نوشته: «من فهرستی از 12 خطر هوش مصنوعی را در کتاب خود ارائه دادم اما موردی که مرا به حیرت واداشت این است که چگونه اطلاعات نادرست و جعل عمیق تولید شده توسط این تکنولوژی توانست بر انتخابات تأثیر بگذارد. در طول مبارزات انتخاباتی ایالات متحده آمریکا در سال 2016، روسیه ماهانه 1/25 میلیون دلار هزینه کرد تا محتوای جعلی ایجاد کند و هدف اصلی او از انجام این عمل، ایجاد اختلاف و درگیری بود.»

گری در ادامه بیان می‌کند: «بازیگران بد فقط سعی نمی‌کنند بر انتخابات تأثیر بگذارند آن‌ها همچنین سعی خواهند کرد بر بازارها تأثیر بگذارند. من در 18 ماه می 2023 به کنگره در مورد این احتمال هشدار دادم، چهار روز بعد، این مورد به واقعیت تبدیل شد و یک تصویر جعلی از پنتاگون که ظاهراً منفجر شده بود در اینترنت پخش گردید و باعث شد بازار سهام برای مدت کوتاهی متزلزل شود.»

این مورد در ساخت تصاویر و مستندات جعلی، برای زدن افترا به افراد سرشناس با ابزارهای عمیقاً جعلی (deep fake) ساخته شده از افراد گوناگون نیز مورد استفاده قرار گرفته و متأسفانه این مستندات آن‌چنان واقعی به‌نظر می‌رسد که تشخیص آن‌ها بدون ابزار فنی امکان‌پذیر نیست.

البته این نکته در اینجا لازم به ذکر است که مطالب بیان شده و نگرانی‌های مربوط به انتشار خبرهای جعلی نباید سبب ایجاد استرس و اضطراب یا سوگویی‌های سیاسی و فرهنگی برای کنار گذاشته شدن این فناوری توسط کاربران شود. بلکه درک و توجه به جوانب مختلف خطرات و بیان فرهنگ استفاده برای اکثر اقشار جامعه، سبب سازگاری و استفاده مسئولانه از هوش مصنوعی می‌گردد و از عواقب سوء استفاده‌های احتمالی نیز خواهد کاست.

هوش مصنوعی‌های دیگری مانند Chat GPT Os, Grok نیز وجود دارند، که با محدودیت پرامپت نویسی فعال هستند. توصیه می‌شود برای انجام یک جست‌وجو حتماً چند هوش مصنوعی در کنار یکدیگر قرار داده شود و در مورد موضوع موردنظر از همه آن‌ها سؤال پرسیده شود و در ادامه بررسی شود کدام‌یک بیشتر برای آن‌ها کارایی قوی‌تری دارد. این موضوع با یک مثال توضیح داده می‌شود.

یک سؤال از همه این هوش‌های مصنوعی بپرسید.

این مورد بیان شد تا بدانید مدلی که انتخاب می‌کنید بسیار در پاسخی که دریافت می‌نمایید، مهم است و هر مدل هوش مصنوعی به‌گونه‌ای از سؤالات قابلیت پاسخگویی دارد.

برای همه جست‌وجو و سؤال‌ها، همۀ ابزارهای هوش مصنوعی مناسب نیست و باید بررسی شود کدام هوش مصنوعی برای پاسخ‌گویی به سؤال موردنظر کارایی بیشتری دارد و این دلیلی است که به افراد پیشنهاد گردید بیشتر از اپلیکشن هوش مصنوعی استفاده نمائید تا همانند رانندگی، حرفه‌ای‌تر شوند.

برای ترجمه متنی که قبلاً هوش مصنوعی پاسخ نداده بود می‌توان چنین پرامپتی را تهیه کرد. 

خطر انتشار بدافزار و ویروس

یکی دیگر از خطراتی که سوءاستفاده کنندگان از هوش مصنوعی می‌توانند برای کاربران از سامانه‌ها و شبکه‌های رایانه به‌وجود آورند، استفاده از این فن برای انتشار بدافزار است.

آسیب اول: بدافزارها

بدافزارها می‌توانند با استفاده از توانائی‌های هوش مصنوعی به‌صورت خودکار و مداوم ایجاد شوند، علاوه‌بر آن، هوش مصنوعی به‌دلیل داشتن پایگاه داده یا Database کامل و قدرت تجزیه و تحلیل بالا و دقت و سرعت عملی که دارد، می‌تواند بدافزارهای موجود را بهبود بخشد، و یا روش جدیدی برای مهندسی نفوذ، گسترش و جلوگیری از نابود شدن در لحظه ارائه دهد. این امر منجر به پیچیدگی بدافزارهای تولید شده می‌شود، که می‌تواند شبکه‌ها و سامانه‌های مختلف را مورد آسیب خود قرار دهد و امنیت افراد و سازمان‌ها را به خطر بیندازد.

با استفاده از چنین بدافزارهایی در حملات سایبری، که توسط هوش مصنوعی تولید و مهندسی شده است. می‌توان نقض امنیت شخصی و سازمانی که مدنظر حمله‌ کننده یا Attacker بوده را به همراه داشت.

این بدافزارها می‌توانند با استفاده از الگوریتم‌های هوشمند، که در هر لحظه هم به کمک هوش مصنوعی بهبود می‌یابد راه‌های جدیدی را برای دور زدن سامانه‌های امنیتی و حتی ناشناخته بودن برای این سامانه‌ها جهت نفوذ، جاسوسی و جمع‌آوری اطلاعات حیاتی و سرقت داده‌های جمع‌آوری شده و در انتها تخریب سامانه‌هایی که به آن‌ها نفوذ کرده، به‌کار گیرد.

البته از قابلیت‌های هوش مصنوعی مثل مدل‌های یادگیری ماشین (Machine learning) می‌توان در شناسایی الگوهای حمله، تشخیص بدافزارها و تحلیل ترافیک شبکه استفاده نمود.

آسیب دوم: حملات سایبری

آسیب دیگری که از سوی هوش مصنوعی می‌تواند آن‌ها را تهدید کند.

حملات سایبری است که به کمک هوش مصنوعی تقویت شده است. سوءاستفاده کنندگان از هوش مصنوعی، از این فناوری برای هک کردن وب سایت‌ها، کشف آسیب‌پذیری‌های روز صفر در نرم‌افزارها، و Appهای موجود در تلفن‌های هوشمند و یا اسکن خودکار رمزهای کاربران برای باز کردن قفل‌های حساب کاربری و حتی اسکن پیام‌های رمزنگاری شده برای رمزگشایی و دستیابی به داده‌های رد و بدل شده استفاده می‌کنید، این فرایندها که به‌دلیل قدرت بالای تجزیه و تحلیل و سرعت غیرقابل تصور این فناوری در چند ثانیه قابل انجام است، کاری که پیش از این توسط انسان‌های متخصص، آن هم چند شبانه‌روز زمان نیاز داشت.

آسیب سوم: حریم خصوصی و نشت داده

آسیب دیگر، شکسته شدن حریم خصوصی و نشت داده‌هاست.

گری مارکوس در کتاب «سرمایه‌داری نظارتی» بیان می‌کند که شرکت‌ها از همه افراد جاسوسی می‌کنند، در واقع در سرمایه‌داری نظارتی شرکت‌ها تجارب انسانی را به‌عنوان مواد خام به‌صورت رایگان برای ترجمه به داده‌های رفتاری خریداری می‌کنند.

این داده‌ها به هوش مصنوعی تغذیه شده و در محصولات در حال پیش‌بینی، به‌عنوان ایده ساخت مورد استفاده قرار می‌گیرد و در واقع بدین‌ طریق پیش‌بینی می‌کنند که مردم به زودی به چه چیزهای نیاز دارند، یا در آینده قصد انجام چه کاری را خواهند داشت و برای انجام آن کارها، چه نیازمندی‌هایی را طلب خواهند کرد.

آسیب چهارم: هزینه‌های زیست محیطی

اما آسیب دیگری که هوش مصنوعی بدون هرگونه سوءاستفاده‌ای به بشریت وارد می‌کند هزینه‌های زیست محیطی است. سرورهای موردنیاز هوش مصنوعی برای انجام پردازش‌های موردنیاز خود به مقدار عظیمی انرژی الکتریکی نیاز دارند، که پیامدهای جبران‌ناپذیری به محیط زیست وارد می‌آورد.

گری مارکوس در کتاب خود بیان می‌کند «تولید یک تصویر، به اندازه شارژ یک تلفن همراه انرژی مصرف می‌کند و با توجه به آنکه تقاضاهای انجام شده از سوی کاربران احتمالاً میلیاردها بار در روز است این مقدار مصرف انرژی غیرقابل جبران است. او خاطرنشان می‌کند که روند شرکت‌های پشتیبان‌کننده و توسعه‌دهنده هوش مصنوعی به سویی است که قصد آموزش مدل‌های بزرگ‌تر را دارند، تا این مدل‌های جدید کارهای خارق‌العاده‌ای خارج از تصور انسان انجام دهند، این مورد سبب مصرف مقدار نجومی انرژی خواهد شد.»